Sau khi Dương Huyền Cảm nổi dậy thất bại, Lý Mật thấy Trạch Nhượng là thủ lĩnh nổi dậy mạnh nhất trong khu vực nên đã gặp gỡ với Trạch Nhượng. Sau khi đến với Trạch Nhượng, Lý Mật đã giúp chỉnh đốn binh mã thành đội ngũ chỉnh tề, còn thuyết phục các thủ lĩnh nổi dậy lân cận liên hiệp lại dưới quyền của Trạch Nhượng. Khi đội ngũ trở nên lớn mạnh, Trạch Nhượng vẫn không nghĩ rằng bản thân có thể lật đổ Tùy Dạng Đế, Lý Mật nói với Trạch Nhượng: "Xưa Lưu Bang, Hạng Vũ cũng chỉ là người dân bình thường mà cuối cùng lật đổ được triều Tần. Nay Thiên tử ngu tối, bạo ngược, bách tính oán hận, đại bộ phận quân triều đình ở xa tận Liêu Đông. Trong tay ngài có binh hùng ngựa khỏe, muốn đánh hạ Lạc Dương và Trường An thì không khó khăn gì". Trạch Nhượng nghe song thấy phấn chấn, mặc dù không đồng ý song ngày càng trở nên ấn tượng trước Lý Mật và đối đãi như khách quý.

Theo khuyến nghị của Lý Mật, Trạch Nhượng bắt đầu tiến công và chiếm các thành trong quận Huỳnh Dương. Sau khi Huỳnh Dương thái thú cáo cấp với Tùy Dạng Đế, Tùy Dạng Đế phái Trương Tu Đà (張須陀) dẫn quân trấn áp. Trước đó, Trương Tu Đà đã từng trấn áp thành công nhiều cuộc khởi nghĩa nông dân, Trạch Nhượng từng chiến bại trước Trương Tu Đà nên lần này cảm thấy lo sợ. Lý Mật cho rằng Trương Tu Đà là người "Hữu dũng vô mưu", cậy có nhiều quân nên sẽ khinh địch và có thể lợi dụng điểm này để đánh bại. Theo đề xuất của Lý Mật, Trạch Nhượng lệnh Lý Mật dẫn một nghìn lính và nấp trong rừng ở phía bắc chùa Đại Hải phục kích, còn mình sẽ giao chiến chính diện với quân Tùy. Trương Tu Đà vốn xem thường Trạch Nhượng, dẫn quân lao thẳng tới tiến công, Trách Nhượng chống ngự qua loa rời vờ thua chạy, Trương Tu Đà đuổi theo hơn 10 dặm, đường đi ngày càng hẹp, tiến vào nơi Lý Mật đã bố trí phục binh. Lý Mật cho quân mai phục xông ra chém giết quân của Trương Tu Đà, bao vây quân triều đình. Trương Tu Đà vốn dũng mãnh nên có thể thoát khỏi vòng vây, song do cố gắng cứu một số thuộc hạ, Trương Tu Đà đã tử trận, quân triều đình bị tiêu diệt. Qua chiến thắng này, danh tiếng của Ngõa Cương quân được khuếch trương rất nhiều, nguồn cung thực phẩm cũng nhiều lên. Sau chiến thắng, Trạch Nhượng lập một đội quân riêng do Lý Mật chỉ huy, gọi là "Bồ Sơn công doanh". Khi đội quân của Lý Mật phát triển, các binh sĩ của Trạch Nhượng bắt đầu có xích mích với binh sĩ của Lý Mật. Trạch Nhượng do đó đã tách quân của mình ra khỏi Lý Mật song ngay sau đó đã hối tiếc về quyết định này và lại hội quân với Lý Mật.

Vào mùa xuân năm 617, Lý Mật thuyết phục Trạch Nhượng rằng do Dạng Đế ở xa và để Dương Đồng trấn thủ Lạc Dương, các quần thần ở đó sẽ không đồng lòng. Do đó, họ đã phái Bùi Thúc Phương (裴叔方) đến Lạc Dương để do thám, song Bùi Thúc Phương đã bị phát giác và các quần thần ở Lạc Dương bắt đầu chuẩn bị tăng cường phòng thủ trước một cuộc tiến công. Đáp lại, Lý Mật và Trạch Nhượng dẫn 7.000 tinh binh công chiếm Lạc Khẩu thương (洛口倉) hay còn gọi là Hưng Lạc thương (興洛倉)- nay thuộc Củng Nghĩa, Hà Nam. Lạc Khẩu thương, do Tùy Dạng Đế cho xây dựng, là kho lương lớn nhất quốc gia, chu vi kho dài tới 20 dặm, trong đó có 3.000 hầm cất dấu lương thực, mỗi hầm chứa 8.000 thạch lúa. Quân tiến công đa phần là nông dân nghèo khổ, biết rằng sẽ công chiếm kho lương nên rất hồ hởi, dốc hết sức sức lực, quân bảo vệ kho lương không thể chống trả nổi. Ngõa Cương quân mở kho, phân phát thóc lúa cho người dân, nhiều người thấy vậy cũng gia nhập quân nổi dậy. Các tướng Tùy là Lưu Trường Cung (劉長恭) và Phòng Trắc (房崱) nhận định Ngõa Cương quân không khác gì một lũ đạo tặc đến kiếm ăn, họ xem nhẹ đội quân này nên đã bị tiến công. Lý Mật và Trạch Nhượng để quân trong thành Lạc Dương bị đói, dự định sau đó sẽ tấn công và chiếm thành.